Vào thời kỳ nhà Hạ và nhà Thương ở Trung Nguyên, địa bàn Giang Tây thuộc văn minh Trường Giang cổ đại, độc lập với văn minh Hoàng Hà cổ đại, đây là một nền văn minh nông nghiệp và phát triển về đồng điếu, là vùng bắt đầu có nền văn minh lúa gạo đầu tiên trên thế giới (huyện Vạn Niên ở Giang Tây đã có lịch sử trồng lúa khoảng 12.000 năm).[5]. Cư dân tại Giang Tây khi đó là người Bách Việt.

Vào thời Xuân Thu, phần phía bắc của tỉnh Giang Tây ngày nay nằm trên biên giới phía tây của nước Ngô. Trong thời kỳ này, sử sách có ghi lại hai điểm định cư tại Giang Tây là Ngải (艾) và Phan 番, sau viết là 潘). Sau khi nước Việt chinh phạt nước Ngô vào năm 477 TCN, nước Sở đã nắm quyền kiểm soát bắc bộ Giang Tây. Nước Sở chinh phục nước Việt vào năm 333 TCN, song bản thân nó lại bị nước Tần thôn tính vào năm 223 TCN.

Sau khi thống nhất Trung Quốc, triều đình Nhà Tần đã lập nên Cửu Giang quận bao trùm phần lớn Giang Tây, trị sở của quận này nay thuộc Thọ huyện tại tỉnh An Huy, bảy huyện thuộc quận này được thiết lập tại vùng thuộc Giang Tây ngày nay. Tuy nhiên, Cửu Giang quận hoạt động không hiệu quả và đã chấm dứt tồn tại ngay sau khi Nhà Tần sụp đổ.

Khoảng năm 202 TCN, thời Hán Cao Tổ, triều đình Nhà Hán đã thiết lập Dự Chương quận (sông Cám trước đây gọi là sông Dự Chương), trị sở của quận này đặt tại Nam Xương (ý là "Xương đại nam cường" và "Nam phương xương thịnh"), đây cũng là quận đầu tiên mà các triều đại Trung Quốc thiết lập riêng cho Giang Tây. Dự Chương quản lý 18 huyện, cương vực đại thể tương đương với Hồ Nam ngày nay. Các thành phố lớn tại Giang Tây hiện nay là Nam Xương, Cống Châu, Cát An đã được phát triển từ các huyện thành vào thời gian đó. Dưới thời Hán Vũ Đế, toàn quốc được chia thành 13 châu, Dự Chương quận được quy thuộc Dương châu. Thời Tam Quốc, Giang Tây thuộc quyền quản lý của Đông Ngô. Năm 291 SCN, vào thời Tây Tấn, Giang Tây được nâng thành một châu riêng là Giang châu (江州). Thời Nam-Bắc triều, Giang Tây nằm dưới quyền kiểm soát của các Nam triều.

Thời nhà Tùy, triều đỉnh sửa đổi chế độ châu huyện thành chế độ châu quận huyện, trên địa phận Giang Tây lúc đó có bảy quận và 24 huyện. Dưới thời Nhà Đường, các quận bị bãi bỏ và đều trở thành "châu", Giang Tây khi đó có 8 châu (Hồng châu, Nhiêu châu, Kiền châu, Cát châu, Giang châu, Viên châu, Phủ châu, Tín châu) và 37 huyện. Năm Trinh Quán thứ nhất thời Đường Thái Tông, toàn quốc được chia thành 10 đạo, Giang Tây thuộc Giang Nam đạo. Đến năm 733, Đường Huyền Tông điều chỉnh thành 15 đạo, tám châu trên địa phận Giang Tây lệ thuộc Giang Nam Tây đạo. Tên gọi "Giang Tây" cũng bắt nguồn từ đạo này

Sau khi Nhà Đường sụp đổ vào năm 907, Trung Quốc bị phân liệt trong thời Ngũ Đại Thập Quốc. Đầu tiên, Giang Tây thuộc nước Ngô, sau đó thuộc nước Nam Đường. Cả hai nước đều đặt quốc đô ở Nam Kinh ngày nay, ở xa về phía hạ lưu Trường Giang. Năm Giao Thái thứ nhất, Nam Đường Nguyên Tông Lý Cảnh quyết định thiết lập nam đô tại Hồng châu, vì thế đã thăng Hồng châu thành Nam Xương phủ.

Đến thời Nhà Tống, đơn vị trên cấp châu được chuyển thành lộ, khu vực Giang Tây có 9 châu, 4 quân, 68 huyện, đại bộ phận lệ thuộc Giang Nam Tây lộ, song có một bộ phận lệ thuộc Giang Nam Đông lộ.

Vào thời Nhà Nguyên, triều đình thiết lập Giang Tây đẳng xứ hành trung thư tỉnh (江西等处行中书省), địa hạt bao trùm tuyệt đại bộ phận Giang Tây ngày nay (một bộ phận phía đông bắc lệ thuộc Giang Chiết đẳng xứ hành trung thư tỉnh) và phần lớn tỉnh Quảng Đông hiện nay. Các hành tỉnh thời Nguyên được chia thành các lộ, trực lệ châu, châu và huyện. Tại Giang Tây, có 13 lộ là Long Hưng, Cát An, Nam Khang, Cống Châu, Kiến Xương, Giang Châu, Bam An, Thụy Châu, Viên Châu, Lâm Giang, Phủ Châu, Nhiêu Châu, Tín Châu cùng hai trực lệ châu là Nam Phong và Duyên Sơn, cùng với 48 huyện, 16 huyện cấp châu. Từ thời Trung Đường trở đi, Giang Tây đã có bước phát triển lớn về kinh tế và văn hóa. Vào thời ba triều Tống, Nguyên, Minh, Giang Tây là một trong các tỉnh phồn vinh nhất Trung Quốc. Điều này thể hiện trong nông nghiệp như sản xuất lương thực hay thủ công nghiệp như đồ sứ và các khía cạnh kinh tế khác.[6]

Đến thời Nhà Minh, về cơ bản vẫn giữ lại chế độ hành chính thời Nguyên, song đổi hành trung thư tỉnh thành bố chính sứ ti, đổi lộ thành phủ và đổi châu thành huyện. Giang Tây bố chính sử ti về cơ bản tương đương với Giang Tây ngày nay, có thẩm quyền đối với 13 phủ là Nam Xương, Thụy Châu, Nhiêu Châu. Nam Khang, Cửu Giang, Quảng Tín, Phủ Châu, Kiến Xương, Cát An, Viên Châu, Lâm Giang, Cống Châu, Nam An; các phủ được chia tiếp thành 78 huyện. Sau khi Quảng Đông tách thành một bố chính sứ ti riêng, ranh giới của Giang Tây từ đó có rất ít thay đổi. Khi đó, các cơ quan hành chính tối cao là Thừa tuyên bố chính sứ ti, đề hình án sát sứ ti, dô chỉ huy sứ ti, tam ti phân biệt do triều đình trung ương trực tiếp kiểm soát, phân quyền cai trị. Ngoài ra, còn có ba địa vị phiên vương (Ninh vương, Hoài vương và Ích vương) phân phong tại Giang Tây, lần lượt tại Nam Xương phủ, Nhiêu Châu phủ (Bà Dương), và Kiến Xương phủ (Nam Thành).

Đến thời Nhà Thanh, triều đình đổi Giang Tây bố chính sứ ti thành Giang Tây tỉnh, cơ bản vẫn thi hành chế độ hành chính của Nhà Minh. Tăng thêm ba huyện cấp thính là Liên Hoa tại Cát An phủ, Đồng Cổ tại Nam Xương phủ, Kiền Nam tại Cám Châu phủ đồng thời thăng Ninh Đô huyện thành châu trực thuộc tỉnh. Người đứng đầu các tỉnh thời Thanh là tuần phủ, bên dưới là các chức vụ thừa tuyên bố chính sứ ti và đề hình án sát sứ ti, phụ trách các vấn đề về dân chính, tài chính và giám sát tư pháp.

Thời kỳ Minh Thanh, Giang Tây nằm trên tuyến giao lộ nam-bắc rất phồn thịnh giữa Quảng Đông và lưu vực Trường Giang, khiến các thành thị của Giang Tây dọc theo tuyến đường này cũng có được sự phồn vinh. Đồng thời, do chính sách "Giang Tây điền Hồ Quảng" và "Hồ Quảng điền Tứ Xuyên", cư dân Giang Tây đã di cư đến các tỉnh có mật độ dân số thấp như Hồ Nam, Hồ Bắc, Quảng Đông, Quảng Tây, Vân Nam và Quý Châu. Trong thời gian này, hình thành thương bang "Giang Hữu", đứng thứ 3 trong thập đại thương bang trên toàn quốc. Đồng thời, Cảnh Đức trấn là một trong tứ đại danh trấn trên toàn quốc.

Thời kỳ Trung Hoa Dân Quốc, các phủ, châu và thính đều được chuyển thành huyện, Giang Tây khi đó có tổng cộng 81 huyện. Đến năm 1926, quân Bắc phạt tiến đến và đồn trú tại Nam Xương, chính thức thành lập thành phố Nam Xương. Năm 1934, huyện Vụ Nguyên của An Huy được sáp nhập vào Giang Tây, đến năm 1947 lại trả cho An Huy, đến năm 1949 lại nhập vào Giang Tây. Ngay 1 tháng 8 năm 1927, tại Giang Tây nổ ra khởi nghĩa Nam Xương, khởi đầu Nội chiến Trung Quốc. Sau đó, trên địa phận Giang Tây và các tỉnh lân cận, Cộng sản đảng đã thiết lập căn cứ địa cách mạng Tĩnh Cương Sơn, căn cứ địa cách mạng Tương-Việt-Cám, căn cứ địa cách mạng Mân-Chiết-Cám, căn cứ địa cách mạng Tương-Ngạc-Cám và căn cứ địa cách mạng Trung ương.

Năm 1931, Cộng sản đảng đã tuyên bố thành lập Cộng hòa Xô viết Trung Hoa tại Thụy Kim, đổi tên Thụy Kim thành Thụy Kinh, đây là thủ đô của chính phủ trung ương, được gọi là "Hồng sắc thủ đô" hoặc "Hồng đô". Trong thời gian chế độ này hoạt động, chính phủ trung ương đã ban hành hiến pháp, phát hành tiền tệ, thiết kế quốc kỳ, và gọi các khu vực do mình kiểm soát là khu Xô viết (苏区, Tô khu). Do Quốc Dân đảng giành được thắng lợi trong cuộc đàn áp cộng sản lần thứ 5, chính phủ trung ương của Cộng hòa Xô viết Trung Hoa đã buộc phải sơ tán khỏi khu Xô viết Trung ương Giang Tây từ tháng 10 năm 1934. Năm 1933, chính phủ Quốc dân tại Nam Xương của Quốc Dân đảng đã phát động Tân sinh hoạt vận động, về sau lan rộng trên toàn quốc. Năm 1936, sau khi thông tuyến đường sắt Việt-Hán đi từ Quảng Đông đến Hồ Nam, Giang Tây đã mất vị thế quan trọng là nằm trên trục giao thông bắc-nam. Năm 1937, khi tuyến đường sắt Chiết-Cám thông xe, Giang Tây đã có sự thay đổi lớn về bố trí giao thông và thành thị.

Năm 2005, tuyến đường sắt Kinh-Cửu từ Bắc Kinh đến Hồng Kông đã khai thông kết nối nam-bắc Giang Tây, đẩy nhanh sự phát triển của khu vực đồi núi phía nam tỉnh. Năm 2005, việc thông xe tuyến đường sắt Cám-Long-Hạ đã chấm dứt tình trạng "hồng sắc cố đô" Thụy Kim không có đường sắt, thực hiện nguyện vọng trong phương lược kiến quốc của Tôn Trung Sơn trong việc xây dựng tuyến đường sắt nối giữa Phúc Kiến và Giang Tây.